Adikarso memperkenalkan Rachmat kepada industri muzik dan rakaman;[4] Rachmat dan adiknya mengadakan persembahan di Wisma Nusantara di Harmoni, Jakarta, di bawah seliaan penjaga mereka.[4] Pada 1958 Rachmat dan adiknya menubuhkan sebuah kumpulan. Walaupun Jusuf dan Imam kemudiannya meninggalkannya, Rachmat meneruskan kerjaya solo. Pada ketika itu, kerajaan di bawah presiden Sukarno melarang penggunaan muzik berbahasa Inggeris, lantas, Encyclopedia of Jakarta menulis, muzik popular Indonesia berada dalam pencarian identiti. Rachmat menggunakan bunyi yang diilhamkan dari muzik negara,[4] dan lagu-lagunya banyak berkisarkan tentang percintaan. Hits pertamanya, pada 1963, ialah "Patah Hati", ditulis oleh adiknya Imam.[1] Populariti lagu ini mula meledak pada 1984, membolehkannya membeli kereta baru.[4]

Walaupun pada mulanya tidak berminat dengan filem, pada 1964, Rachmat muncul dalam penerbitan pertamanya, Kunanti Djawabanmu. Menjelang 1977 beliau telah meyiapkan sebanyak 20 filem.[1] Pada 1975 beliau menubuhkan syarikat penerbitannya sendiri, Mafin Film,[4] dan pada 1978 beliau mengarahkan filem sulungnya Tengkorak Hitam.[1] Biarpun selepas berlakon filem, beliau terus merakamkan album, yang pertama dalam bentuk rakaman gramofon dan seterusnya dalam bentuk kaset.[1]

Dari kemunculan pertamanya sehingga peranannya yang terakhir dalam Titisan Dewi (1990), Rachmat muncul sebanyak 40 filem, termasuk naskhah aksi Matjan Kemajoran (1965), komedi seperti Benyamin Jatuh Cinta (1976), dan drama seperti Bernafas dalam Lumpur (1970). Beliau megarahkan sejumlah empat filem: Tengkorak Hitam, Masih Adakah Cinta (1980), Jangan Sakiti Hatinya (1980) dan Mat Pelor (1990).[5]